#Kristjan Port | Explore Tumblr posts and blogs

salakavald · 5 months ago

Text

Jaan Tallinn: “Minu eesmärk tehisintellekti valdkonnas on pumbata tõenäosust düstoopiast utoopiasse”

Mure elu kestlikkuse pärast – kas AI võtab planeedi üle? Tehnoloogia ülikiire areng on pannud ka tehisintellekti arendamisega tegelevaid inimesi muretsema. Millised riskid meid AI-ga seoses ähvardavad, mille üle on meil põhjust muretseda ja millele on meil loota? Kristjan Port vestles meid ees ootavast tulevikust maailma ühe informeerituma AI-temaatikat valdava eksperdi ja investori Jaan Tallinnaga. Tema sõnul on AI arendamine majanduslikult kasulik, mistõttu on väga raske seda peatada. Et negatiivsed riskid ei realiseeruks, on oluline olla AI-d arendavate ettevõtete omanikeringis, et pääseda nende kööki ja rääkida ka AI riskidest. “Minu AI-investeeringud, nende ettevõtmiste juures olemine ja nende inimestega suhtlemine ongi suunatud teadlikkuse tõstmisele,” ütleb Jaan Tallinn.

Kui käia tänaval ringi inimeste seas, keda me ei tunne, siis igaühes neis on mingi potentsiaal, mida me ei tea. Selles peitubki inimlik rikkus. Ja sinus on üle keskmise potentsiaali, vähemalt mõjupotentsiaali, mida enamus inimesi ei tea, ei oska hinnata ega arvatagi. Kusjuures see potentsiaal ei ole kuidagi seotud majandusliku mõjukusega, vaid inimliku hoolivusega.

Ma olen sellele mõelnud ja kõige fundamentaalsem iva, milleni ma jõudnud olen, on see, et ma üritan olla usaldusväärselt neutraalne ja katsun teha asju, mida tuleviku generatsioonid tahaksid, et ma praegu teeksin.

Keda sa tuleviku generatsioonide all silmas pead?

Seda on raske defineerida. Ilmselt tuleb sinna sisse lugeda ka inimesed, keda tõenäoliselt ei sünni, kuna maailm saab hukka. Need on inimesed, kes tegelikult sünnivad, ja inimesed, kes võiksid sündida, kui asjad läheksid paremini. Ma kuulun sellisesse liikumisse nagu efektiivne altruism. Just eelmisel nädalavahetusel oli meil Eesti seltskonna kogunemine (intervjuu toimus 28.07 – toim). Seal võib eristada ajalist ja ruumilist dimensiooni. Üks, mida efektiivsed altruistid eesotsas liikumise algataja Peter Singeriga ütlevad, on see, et me ei tohiks teha inimestel, kes on meie kõrval ja kes me kõrval pole, nii tugevalt vahet, nagu inimesed intuitiivselt teevad. Loevad ka nende elud, kellega me võib-olla kunagi kokku ei saa, sest nad elavad mõnel teisel kontinendil. Seetõttu on oluline hoolida üle terve planeedi. See on n-ö ruumipõhine hoolivus. Ajapõhine hoolivus tähendab hoolimist ka inimestest, kes ei ole veel sündinud. Neil on praegu veel vähem hääleõigust kui inimestel, kes on küll praeguseks juba sündinud, aga kahjuks mõnda kolmandasse riiki, millel pole eriti suurt mõju. Tuleviku generatsioonide all mõtlengi ma inimesi, keda siis, kui asjad lähevad hästi, on palju, ja keda siis, kui asjad lähevad halvasti, võinuks olla palju.

Sa mõjutad maailma vähemalt kahe organisatsiooni kaudu. Üks on Cambridge’i Ülikooli juures tegutsev Eksistentsiaalse Riski Uuringute Keskus ja teine Bostonis hajusalt asuv Elu Tuleviku Instituut. Minu jaoks on just see viimane huvitav. Kuidas sa määratled elu, kas see on vaid inimeste elu?

Need on süsteemid, mis on võimelised omama teadvuslikke kogemusi.

Teadvusena käsitled sa enim enesemääratlust?

Teadvus on siiamaani midagi, mille olemusest me täpselt aru ei saa. Aga see tundub oluline. Olen enda väärtuste puhul tähele pannud, et mind väga huvitab see, et kui ma võtan mingisuguse isoleeritud aegruumi tüki, siis kas seal on teadvuslikke kogemusi või mitte. Kui need pole inimesed, vaid loomad (efektiivse altruismi üks mõtteid ongi, et me kohtleme loomi liiga halvasti), siis kas seal on midagi, mille suhtes empaatiline olla või mitte. Juhul kui seal pole ühtegi teadvuslikku kogemust ja see on isoleeritud aegruumi osa, siis minu praeguse arusaama kohaselt on täiesti ükskõik, mis seal juhtub.

Kuidas sa eksistentsiaalset riski määratled, on see terminaalne või pikk kannatus?

Kõige põhjalikum definitsioon selle kohta on Toby Ordi raamatus “The Precipice”, kus ta ütleb, et inimkonna eksistentsiaalne risk on inimkonna potentsiaali järsk katastroofiline vähenemine. Inimkonnal on hetkel põhimõtteliselt potentsiaal jõuda tähtedeni ja muuta universum õitsvaks. Juhul kui selgub, et sel või järgmisel aastakümnel tuleb üks aasta, mil see tulevik muutub võimatuks, siis see on eksistentsiaalne katastroof. Lihtsamalt öeldes on kõige suurem tõenäosus eksistentsiaalse riski kategoorias sellel, et inimesed surevad välja. Ja seal omakorda on kõige suurem tõenäosus sellel, et nad surevad välja, kuna keskkond muutub elamiskõlbmatuks – kiiresti.

Inimkonna potentsiaal ise on ju selle kahjustamise põhjuseks. Kuidas head potentsiaali halvast eristada?

Kui teed asju, mis inimkonna potentsiaali kahjustavad, on nad ka enamiku inimkonna väärtuste seisukohalt negatiivsed, kuigi alati leidub ka igasugu veidrikke. Need, mis seda ultimatiivset potentsiaali säilitavad, on positiivsed. Ütleme nii, et eesmärk on pumbata tõenäosust düstoopiatest utoopiatesse.

Minu jaoks on huvitav, et see on enneaegne inimese või potentsiaali otsasaamine. Mida tähendab enneaegne? Inimene ei ole ju määratud igavesti elama ja eksisteerima. Kuidas see sinu käsitluses on?

Need on küsimused, kus oluliseks saab kvantiteet.

Isegi kui inimkond või universum ei kesta igavesti, siis on vahet, kas me kestame veel 40 aastat või 1040 aastat.

See vahe on väga suur.

Kas praegu oleme me liiga vähe aega kestnud?

Jah, isegi imetajana oleme me väga noor liik. On imetajaliike, kelle vanus on mõõdetav kümnetes miljonites aastates.

Elu Tuleviku Instituut ja Eksistentsiaalse Riski Uuringute Keskus on suhteliselt hilised, paigutuvad sellesse sajandisse. Oxfordi juures tegutseb ka Inimkonna Tuleviku Instituut. Kas me peaksime olema rohkem huvitatud inimesekesksest visioonist?

Neid nimesid ei maksa liiga üle tõlgendada, ent need on selgelt erinevad organisatsioonid. Inimkonna Tuleviku Instituut on üks vanimaid, kui mitte vanim eksistentsiaalsete riskidega tegelev organisatsioon. Ja ta on filosoofiliselt kõige kompetentsem. Tegeleb selliste küsimustega nagu mis on elu, mis on väärtus, kuidas seda kaitsta, kas suremine on hea või halb.

See tärkas nii nagu tuhandetel teistel inimestel – peale seda, kui lugesin Eliezer Yudkowsky kirjutisi. Ma hakkasin teda lugema, kui ta kirjutas veel sellises kohas nagu Overcoming Bias, nüüd on sellest saanud LessWrong, järjest prominentsem oluliste teemade arutelu keskkond.

Yudkowsky positsioon oli pigem pessimistlik.

Ta on kirjutanud sellest, kuidas tema silmad avanesid. Kuidas ta algul noorena oli selgelt sellel positsioonil, millel paljud siiamaani on: AI on lihtsalt üks hüpe progressis ja meil on vaja see kiiresti ära teha, enne kui me selle võime järgmist etappi alustada kaotame. Ja siis ühel hetkel jõudis ta selleni, et oot-oot, mida see inimestele tähendaks.

Kas elu või intellekt on üldse materjalist sõltuv? Kas ta võiks olla materjalist invariantne ja me võimegi olla teel sellise tehnilise kandja poole?

Võimalik. Aga siin on mitu nüanssi. Kui väga suurelt mõelda, siis üks küsimus on, et kui me teame, et tegemist on teadvusliku kogemusega, siis kuidas neid võrrelda. Juba praegu on trade-off’id olemas – näiteks kui vaatame, kuidas kanade teadvuslikku kogemust võrreldakse, mitme kana kannatus on võrdne ühe inimese kannatusega. Tõenäoliselt 1:1 see ei ole, aga mis see number siis on?

Kana käest küsides oleks tema arvamus teada.

Jah, võib-olla küll. Aga kuidas seda mõõta? Kas neuronite arvuga või mingil muul viisil? See pole ka ainult puhtalt filosoofiline küsimus, see on ka küsimus sellest, et kui me käituksime moraalselt õigesti, siis kui palju me peaksime näiteks kanaliha maksustama. See aga põhjustab väikest kannatust paljudele inimestele, kuna kanaliha on üks populaarsemaid valguallikaid üldse. Ja need trade-off’id lähevad veel hullemaks, kui rääkida mitte süsiniku baasil olevatest süsteemidest.

Üks küsimus, mis mind ennast väga huvitab, on see, et kui mul on kaks programmi, mis jooksevad silikoonis või muus keskkonnas ja neil mõlemal on teadvuslikud kogemused, nad on täpselt identsed, igale hetkele järgneb hetk, mis on täpselt samasugune, nad on sünkroonis, siis kas neid lugeda üheks või mitte. Kui neid mitte üheks lugeda, siis kuidas neid kaaluda. Need on teemad, mis on ühel hetkel väga olulised. Ma loodan, et nad hetkel veel ei ole olulised, kuna me ei tea neile vastust.

Aga praegu on õige aeg neile mõtelda. Robin Hansoni “Age of Em” on enam-vähem samasugune. Seal on kaks ajalist dimensiooni: digitaalne aeg, kus kõik kulgeb väga kiiresti, ja inimese bioloogiline aeg. Me tajume maailma muutust hoopis teises tähenduses ja kontekstis.

Selle kohta ma saadan tavaliselt inimestele, kes räägivad AI-ga kokku kasvamisest, ühe video seeriast “Stainless”. Seal on kunstnik filminud maailma umbes 50 korda kiiremini ja näitab seda normaalkiirusena – milline näeb maailm välja AI jaoks, kes on ainult 50 korda kiirem. Tegelikult on AI miljon kuni miljard korda kiirem. Inimesed on põhimõtteliselt liikumatud kujud, kes seisavad aastakümneid ühe koha peal.

Ja tahavad väita, et nad kontrollivad protsessi.

Just, et meie nüüd merge’ime. Võrdluseks võib tuua selle, et sulle pannakse mingi kompanjon juurde, kes jookseb sinust miljon korda aeglasemalt, mis tähendab, et ta suudab öelda ühe sõna aastakümne jooksul, ja sa juba tead, mis see sõna on. Pole ju eriline partnerlus.

See on ka üks võimalik seletus sellele, et teised tsivilisatsioonid on olemas. Nad on lihtsalt veel aeglasemad kui meie ja magavad praegu, seepärast polegi me neid märganud. Nende eksistentsiaalne tempo on teistsugune.

Siin tekivad kohe küsimused, et kui meil on üks universum, siis ta ei saa olla aeglasem, kui universumi vanus lubab.

Kui mõtleme eksistentsiaalsele riskile, siis sel on kolm parameetrit. Esiteks, mingi jama juhtub ja sel saab olema kergem või raskem tagajärg. Teiseks, jamal on mingi tõenäosus. Kolmandaks, see jama peab olema meie poolt kontrollitav, vastasel juhul ei saa me rääkida riskist, vaid tegu oleks saatuse või millegi muuga.

Need ongi põhimõtteliselt efektiivse altruismi kolm peamist kriteeriumi: kas asi on oluline, tähelepanuta jäetud, lahendatav.

Ma saan aru, et riski olemuse institutsionaalsed lähenemised saab jagada enam-vähem neljaks: kliima, tehnoloogiline, sõjaline, tehisintellekt. Kas sina oled kõige enam tehisintellekti riski poole vaadanud?

Jah, kuigi neil on kattuvusi.

Üks, mida ma kogu aeg räägin, on see, et meie jaoks on enamus eksistentsiaalseid riske keskkonnakatastroofid. Drastiline näide – AI-l ei ole päikest vaja.

Veelgi enam, juhul kui teda huvitab optimaalne energiakasutus, on tema huvides päikeses toimuv energia raiskamine lõpetada. Me oleme bioloogilised olendid, kes on harjunud kosmilises mõttes väga veidra keskkonnaga ja iga väike muudatus selles keskkonnas on meile saatuslik. AI-l ei ole mingit huvi hoida seda keskkonda selliste parameetrite vahemikus, mis sobib bioloogiliseks eluks.

See toob teemani, et inimene on meile teadaolevalt kõige kõrgem elu kandja, aga pole endaga kunagi rahul ning see sunnib end muutma. Kui võtame sipelga või kaelkirjaku, siis nad ei püüa end muuta. Nad küll kohanevad, aga nad pole aktiivsed enda muutjad. Kas inimesel on ülejäänud eluslooduse suhtes mingi saatuslik vastutus, teistsugune roll antud, et me peamegi teiste eest ka otsustama?

Huvitav küsimus, ma pole niimoodi mõelnud.

Kui oleme lennukis, siis seal öeldakse, et jama korral pane kõigepealt endale mask pähe ja siis hakka teisi päästma. Paistab, et me oleme siiski need, kes suudavad midagi teha.

Jah, juhul kui me väärtustame teadvusel olevate olendite kogemusi ja meie tegevusest sõltub meie, teiste loomade, olendite teadvusliku kogemuse jätkumine ja positiivsus. Kuid seal on ka väga palju probleeme. Efektiivse altruismi kogukond on süstemaatiliselt hakanud mõtlema, kuidas vähendada loomade kannatusi, ja jõudnud järeldusele, et valdav enamus kannatusi saavad osaks metsloomadele.

On üks huvitav Oxfordi argumentatsiooni auhinna saanud väitlus teemal, kas elu võimalus, õigus eluks on moraalselt õigustatud. Jah, on küll. Farmiloom elab oluliselt paremat elu kui metsloom ja sureb tähenduslikult, kuna ta süüakse ära. Metsloom arvatavasti kannatab kogu elu ja sureb traagika läbi. Moraalselt õige oleks metsast kõik loomad kõrvaldada ja farmidesse tuua. Kas me seda olemegi tegemas?

Kindlasti me ei tee seda teadlikult. Kui me seda teadlikult teeksime, siis teeksime seda palju paremini, mitte ei tekitaks farmides kannatusi.

Selge see, et meil on halbu farme ka.

Enamus farme on halvad. See on selgelt inimkonna häbiplekk. Õnneks toimub praegu väga hea progress intensiivse farmikasvanduse vastu, eriti Ameerikas.

Aga kui inimkond on edukas, siis saab see ju toimuda ainult loomade, ülejäänud eluslooduse arvelt.

Ma jätan selle suure probleemi praegu lauale. Aga selle üle tasub mõelda.

Üks oluline asi, mida ma usun, on, et evolutsioon ei ole automaatselt hea. Paljud arvavad, et evolutsioon on selline heatahtlik vanake, kes ainult järjest positiivsemat tulevikku loob. Ei ole. Evolutsioon teeb ka tohutuid jäledusi. Evolutsiooni kui pimedasse tegevusse on meil moraalne kohustus sekkuda, aga samas on vist õieti öeldud küll, et enne pane hapnikumask endale pähe ja siis hakka teisi aitama. See aga ei tähenda, et eri inimesed ja organisatsioonid ei võiks nendega paralleelselt tegeleda.

Kas meie hapnikumaskiks on tehisintellekt? Me oleme praegu teel sinnapoole, kas me peaksime pidurit panema? Kas me peaksime lennukis ütlema, et see seltskond siin on vale, inimkonna päästmise nimel võiksime kõik hukkuda?

Üldine probleem on, et mida võimsamaks muutub tehnoloogia, seda levinumaks saab see, et tehnoloogia arendajad võtavad riske teiste arvelt. Eksternaalsus ehk mõju teistele, välistele, kolmandatele osapooltele (nt kui mina teen lõket, siis naabrid kannatavad suitsu või vabanevad sääskedest (st võib olla hea või halb eksternaalsus); internaalsus seevastu oleks mõju mulle kui tegijale – K.P.) läheb üha suuremaks, samas planeet ei lähe suuremaks. See on minu meelest selgelt ebamoraalne. Nüüd on küsimus, kas positiivne pool kaalub üles riskide võtmise teiste arvelt. Juhul kui tehisintellekti katastroofis hukkuks vaid tehisintellekti arendajad, oleks tehisintellekti arendamine praegu täiesti kangelaslik. Aga nii see ei ole. Küsimus on, kui palju positiivsust me peaksime ootama.

Praegu arutatakse, kas pandeemia puhul oli tegemist laborilekkega. Ühe seisukoha järgi ei saa me võib-olla kunagi teada, kas oli laborileke, aga see võis vabalt nii olla. Järelikult gain of function research (uudikfunktsioonide uuringud) vist ikkagi ei ole positiivne asi. On vähe argumente selle kasuks, et me peaksime neid uuringuid jätkama. Mis praegu AI valdkonnas toimub, on AI gain of fuction research. Võetaks järjest suuremad mustad kastid, pannakse katseliselt järjest rohkem elektrit sisse ja vaadatakse, kas tekkis mingi uus huvitav funktsionaalsus, kas ta läks nii palju targemaks, et saaksime uut funktsionaalsust kasutada. See on mõnes mõttes isomorfne bioloogilise gain of function research’iga. Minu arvates AI gain of function research ei ole moraalne, samadel argumentidel nagu pole moraalne gain of function research bioloogias. Probleem on tohutus majanduslikus surves sellist asja teha, mistõttu ongi reaalsus see, et me peame sellega elama, et niisugused eksperimendid toimuvad, ja mõtlema, kuidas positiivset poolt suurendada. Minu üks viimaseid investeeringuid ongi just Anthropic, kes mõtleb, kuidas me saaksime AI-ga maailmas, mis läheb järjest suuremate eksperimentide suunas, võimalikult palju tulevikku säilitada.

Sa oled AI rakendamise kui lahenduse suhtes optimistlik? Ütlesid, et moraalselt õige oleks need AI arendajad musta kasti panna ja ära uputada.

Seda kindlasti mitte. Ma arvan, et õigem oleks teha AI eksperimente, kus katsetajad saavad aru, mida nad teevad, mitte ei pane lihtsalt rohkem elektrit sisse, vaadates, mis juhtub. Üldiselt ma arvan, et tehnoloogiast on inimesel kasu olnud, nii et üldine tehnoloogia arendamise peatamine on kindlalt ebamoraalne. Küsimus on, millist tehnoloogiat me eelistame. Kui meil oleks võime tsivilisatsioonina eelistada AI-d, millest tegijad kui protsessist aru saavad, siis peaksime sellist piirangut AI arendamisel kasutama. Kahjuks meie tsivilisatsioonil ei ole võimekust AI-arendust piirata.

Siin tekib dilemma. Selleks et paremini teada, peaksime kasutama paremaid tööriistu, aga neid kasutades me libastume. Miks me AI-d kasutame, me tahame seda teha kasvõi natukene endast paremaks, et ise paremaks muutuda. Siis meil tekib selline ärajooksev protsess.

Üks kuulsamaid AI-skeptikute hüüdlauseid on Andrew Ngi “AI pärast muretsemine on sama hea kui muretseda Marsi ülerahvastamise pärast 300 aasta pärast”. Stuart Russelli, ühe prominentsema AI-turvalisuse pärast muretseva inimese vastus sellele on, et juhul kui me kulutame aastas kümneid või sadu miljardeid Marsi ülerahvastamiseks, siis me tõesti võiksime mõned miljonid kulutada ka sellele, et mõelda, mis juhtub, kui ta ülerahvastatakse. Reaalsus on, et need kümned miljardid lähevad praegu AI arendamisse. Me oleme jõudnud olukorda, kus AI arendamine on majanduslikult kasulik, mistõttu on väga raske seda peatada.

Samas Stuart Russell on pööranud tähelepanu ka sellele, et me ei peaks AI-d arendama oma olematus või vähekontrollitavas fantaasias, majanduslikus motivatsioonis, vaid laskma AI-l jälgida, mida meie teeme. Kui me ei oska ise oma väärtusi kirjeldada, siis võib-olla AI oskab neist aru saada.

Sellest teemast võib väga pikalt rääkida. Aga üldine probleem on, kuidas ehitada AI-d, mille arusaam heast tulevikust oleks võimalikult sarnane sellega, milline meie arusaam peaks olema. Me ei tohiks arvata, et 2021 on täpselt see hetk, kus inimene sai aru, milline on hea tulevik ja seda tuleb nüüd lõpmatuseni toetada. Me oleme ikkagi moraalselt arenev liik.

Kas oleme? Me oleme inimkonna arenguloos praegu arvatavasti kõige kaugemale jõudnud, aga kui vaadata, millised vastuolud meie väärtussüsteemis on, siis see on traagiline. Kas me oleme üldse suutelised?

See on väga väiklane seisukoht, et 2021 on parem kui 21. Samas on väga selgelt olemas mittesümmeetrilised arengud, näiteks empaatia laienemine. Kassi põlema panemine oli aastal 21 mõnus ajaviide, selles midagi ebamoraalset ei tundunud olevat.

Pehmem ja õigem väide on, et ringkond olenditest, kelle heaolu pärast me muretseme, on suurenenud. Mulle tundub, et moraalifilosoofia seisukohast on see selgelt progress, mitte tagasiminek.

Moraalifilosoofidel puudub ka ühine kokkulepe, mis on õige, mis on vale. Moraalietaloni pole, ilmselt seda ei eksisteerigi.

Tihtilugu inimesed ülehindavad meie erimeelsusi. Meie ajud on tegelikult instrumendid, mis on loodud erimeelsuste võimendamiseks ja poliitilise profiidi lõikamiseks väikeses 50–100-liikmelises kogukonnas. See, et päikest kolme aasta pärast välja ei lülitataks – see küsimus ei tõuse niisugusele tasemele, et me sellest kui väärtusest räägiks. Stuart Russell on öelnud, et meil ei ole rahvusvahelist eetikute konverentsi, kus arutatakse parema jala väärtuse üle. See on praktiliselt kõigi jaoks väärtuslik, selle üle ei ole mõtet vaielda.

Me seisame iga päev justkui mingi sotsiaalse või poliitilise kuristiku äärel ja kardame, aga kui tuleb suur kriis, siis me unustame need vastuolud.

Absoluutselt. OpenAI juht Sam Altman on öelnud, et huvitav, mis juhtuks, kui me saaksime teada, et meie poole on tulemas tulnukate laev ja me teame, et nad on inimkonnast tehnoloogiliselt kõvasti arenenumad, ja me ei tea, mida nad inimkonnast arvavad. See tõenäoliselt oleks ühendav jõud. Aga võib-olla mitte.

Tehisintellekti areng ja see, mida me tehnoloogiaga teeme, on ju samasugune tehiskaaslase lähenemine meie ellu. Ja see toimub ületamatul kiirusel, kuna me ei näe seda ette. Ootamatused on ootamatused just seetõttu, et me ei näe neid ette. Millise riski sa eksistentsiaalses kalendris kõige lähemale sätid?

AI gain of function’i eksperimendid. Parameetrite arv kasvab praegu eksponentsiaalselt. Inimajul on umbkaudu 100 triljonit parameetrit, praegused AI eksperimendid on juba 15 triljoni juures. On jäänud vaid loetud aastad esimese AI gain of function’i eksperimendini, mis on võrreldav inimaju võimsusega. Nvidia asepresident ütleb, et tema arvates toimub viie aasta jooksul vähemalt üks eksperiment, mille maksumus on miljard dollarit. Keegi kulutab miljard dollarit AI gain of function’i eksperimendile.

Kust see kvalitatiivne hüpe tuleks?

On raske öelda, mis juhtub, kui panna inimaju jagu neuroneid kokku, lükata elekter peale ja oodata tulemust.

Me näeme ju tänapäeval, mis juhtub. Meil on mingisugused reeglid.

Need AI-d, mis mustas kastis praegu on, ei ole inimesega sarnasemad kui ämblikuga. Tim Urban kirjutas mõned aastad tagasi oma “Wait But Why” blogis AI riskist nii: kui sa kujutad ette intelligentset AI-d, ära kujuta ette intelligentset inimest, kujuta ette intelligentset ämblikku. AI on inimesega veelgi vähem sarnane kui ämblik inimesega. Ämblik on oma olemuselt AI-ga kõvasti sarnasem.

Meil on multiagentkeskkond, kus on 7–8 miljardit inimest tsivilisatsiooniks organiseerunud. Ja nüüd me hakkame lisama agente, kes on ultrakompetentsed ühes või mitmes dimensioonis ja kes pole inimesed. Kui kaua selline tsivilisatsioon vastu peab, enne kui ta nende mitte-inimeste lisandudes rebeneb?

Kas tehisintellekti teeb neutraalne teadus või motiveeritud majandusüksus?

Motiveeritud majandus. Enamus eksperimente on majanduslikult motiveeritud.

Meie seda ei kontrolli, vaid see lihtsalt juhtub.

Mõned asjad on ka päris poliitilised.

Majandus on üks poliitika dimensioonidest. Stuart Russellil on näide, et kas gorilla unistab inimeseks saamisest. Ta näeb, et inimesel on asju rohkem. Kas ta tunneb end inimese kõrval turvaliselt? Sellele teisele küsimusele on meil arvatavasti lihtsam vastata – tal ei ole põhjust end turvaliselt tunda.

Stuart Russellil on ühes kõnes slaid kolme mõtlikus poosis gorillaga ja ta ütleb, et see on gorillade vastav konverents. Mida me teeme nende inimestega, kes siia tulevad.

Nagu sa mainisid, peaksime mõtlema tehisintellektist pigem kui ämblikust, mitte mingist supertegelasest. Ta on ettearvamatu.

Tal on inimestest täiesti ükskõik – see on üks oluline AI ja ämbliku ühine omadus. Ja tal on hoopis teistsugune maailmavaade ning väärtused.

Mis need poliitilised lahendused oleks? Kas reguleerime majandust ja info liikumist, kes mida teab? Ohu tõttu ollakse selle arengust huvitatud ka militaarse poole pealt.

Ma ei tea, kuivõrd suur võimekus on riikidel piirata arvutusvõimsust, mis läheb AI eksperimentidesse.

Hiinal kindlasti on see võimekus. Ma olen Hiinas mõned korrad käinud ja suhteliselt mõistlikud on need AI riskide arutelud. Kohati isegi mõistlikumad kui läänes. Kultuuriliselt eemal olevana ma siiski tegelikult ei tea, mis seal päriselt toimub.

Aga ma kardan, et läänes ei ole võimekust reguleerida arvutusvõimsust.

Nii et igal juhul peame me valmis olema jama realiseerumiseks? Nagu kalendri näites gain of function’i puhul sa paigutad selle esimeseks, et siit me saame mingisuguse korraliku laksu. Riski hinnates võime selle ühe riski esile tuua.

Ma ei tea. Kui väita, et väga suur jama tuleb järgmise viie aasta jooksul, siis ma olen suhteliselt kindel, et see tuleb AI gain of function research’ist. Aga ma ei tea, võib-olla ei tule. Stuart Russell ütleb, et lähitulevikus midagi halba ei juhtu, ja tema vaimukas põhjendus on, et kui me anname lapsele aabitsa kätte, siis seal ei ole 10 miljonit kaelkirjaku pilti, et õpetada lapsele, mis kaelkirjak on. Aga AI-l on vaja 10 miljonit kaelkirjaku pilti. See tähendab, et tal on mingi oluline intellektuaalne puue. See on ka üks oluline argument, miks seda jama ei peaks tulema.

Samas selles digitaalses ajus toimub kõik superkiiresti.

Jah, ja kui sa talle 10 miljonit kaelkirjakut näitad, õpib ta ikkagi ära, mis kaelkirjak on. Ühe argumentatsiooni kohaselt on see puue nii oluline, et sealt inimesele üldist konkurentsi pakkuvat süsteemi välja ei tule, sest see puue on totaalselt piirav. Teine argumentatsioon ütleb, et lennukid pole ka kunagi olnud nii efektiivsed kui linnud, aga samas teevad lindudele pika puuga ära. Sama võib juhtuda gain of function research’iga – me kindlasti ei saa inimesega sama efektiivset süsteemi energiakasutuses, aga saame piisavalt efektiivse, mis on võimeline planeedi hävitama.

See on just sellise arengu näide, kus me internaalsust kontrollime, aga eksternaalsust ei kontrolli. Me arendame seda eriti, kui jõuvektoriks on majanduslik huvi. Siis me optimeerime ja oleme konkurentsi tingimustes isegi sunnitud optimeerima.

Ehkki meil on majanduspoliitiline huvi, on AI-sid, mida on võimalik nüüd kasumlikult rakendada. Ma arvan, et näiteks Tesla saab väga tugeva konkurentsieelise tänu oma AI-le. Ja see on majanduslikult mõõdetav eelis.

Kas sa pead silmas seda, et Tesla saab kõikidest autodest tagasisidet? Kaelkirjakuid on neil hästi palju.

Teslal on praegu vaieldamatult kõige parem autopilootsüsteem. See pole täiuslik, kaugel sellest – ise oleksin selle pärast peaaegu avarii teinud nädal tagasi. Aga ta on konkurentidest selgelt parem, mistõttu on neil AI tiim, mis loob Tesla aktsiale majanduslikku väärtust juurde. Paljud AI eksperimendid pole puhtalt majanduslikud – et teed eksperimendi ja saad kohe mingit kasumit. Vaid sa teed eksperimendi ja selle tulemusel tõused maailmas liidripositsioonile kui kõige suurema eksperimendi omanik. Selle tulemusena saad juurde noort talenti, kes tahab sinu juures töötada. Siis omakorda saad teha teisi AI projekte. See pole üksühene majanduslik mehhanism, vaid majanduse, brändi, kasumi segu.

Seda raskem on seda kontrollida, me ei näe otseselt kvantitatiivset mõõdikut, vaid see paigutub kuidagi halli tsooni.

Jah, see on keerulisem ja hägusam mehhanism.

Riski realiseerumine. Tehisintellekti puhul ennustatakse inimese tasemele jõudmisest 30, 60, 130 aasta vahemikku. Kuhu sina selle tunnetuslikult paigutad? Ma ei saa küll võtta sinult garantiid, aga ikkagi.

On tõenäosus, et järgmise viie aasta jooksul toimub mittetriviaalne ärevushetk, millest see sõltub. Mõtlemapanev sündmus.

Kas see on suurusjärgult midagi COVID-i sarnast? COVID on gain of function’iga seotud. Midagi on toimunud ühe viiruse hüppamisest looma omast inimese peale. Kaotus kontrollis – poliitiliselt ei suudetud kokku leppida ja ka ei usutud selle raskusastet.

Tõenäosus, et järgmise viie aasta jooksul kaotab inimkond kontrolli planeedi üle, kuna toimub gain of function’i eksperiment, mis läheb valesti, ei ole siiski tohutult suur, aga siiski oluline – võib-olla kuskil 2–4%.

Meie tehnoloogiline andmevahetusstruktuur on suhteliselt rabe. See peab olema tehnoloogiast endast tulenev risk, realiseerub mingi keemiatehase sündmus. Tehisintellekt ei tule meile pähe ronima ega jääkappi tühjaks tegema, vaid käivitab mingi keskkonnatraagikaga seotud sündmuse. Ultrakiire pankadevahelise transaktsiooni puhul on ju ka pandud lõppude lõpuks mingisugused stop cap’id, et see natukenegi kontrolli alla saada. Arvatavasti see ei saa olla andmepõhine traagika, vaid kõrgelt arenenud automaatne seade.

Scott Alexander on Slate Star Codexis andnud vaimuka vastuse inimestele, kes ütlevad, et AI-l ei ole ju käsi, ta ei saa midagi olulist teha. Vastus on kahesõnaline – Satoshi Nakamoto. For all we know, tegemist oli AI-ga. Ja ta on miljardär. Ning kui sa oled juba miljardär ja sul on internetiühendus, saad sa juba päris palju asju teha.

On üks fantaasiat avardav raamat “Avogadro Corp”, kus AI hakkab segama inimestevahelist meililiiklust. AI võtab inimeste teadmata meili, kirjutab selle ringi ja saadab edasi. Raamat kirjeldab väga huvitavalt kaost, mis selle tagajärjel toimub. Keegi ei saa enam suurt aru, tekib mingi militaarvõimekus mitmetes kohtades, inimesed kaovad, olukord väljub suhteliselt kiiresti kontrolli alt. See on üks võimalik näide, mida inimesed suudavad välja mõelda selle kohta, mis võib juhtuda.

Suhteliselt reaalne. Kui võtta bitcoin’i-miljardär, siis oma rahaga saab ta teha head ja halba. Ja me arvame, et ta teeb halba, sest inimene on niivõrd rikutud.

Eliezer kujutas juba kümmekond aastat tagasi ette, mida võib teha AI, kes on lihtsalt eksperimendi tulemusena üles ärganud, aga kogu maailma interneti info põhjal treenitud. Ta võib saata juhised laboritesse, kus ta tõestab, et võib krüpto eest maksta, ja käsib välja trükkida teatud organismid.

Halb inimene apelleerib teiste inimeste halvale küljele. Raha on sisuliselt töö ekvivalent. Bitcoin aga spekulatiivne raha, mil pole garanteeritud väärtust. Ta tekib õhust, aga võib muutuda reaalseks, likviidseks. Ja kui sa oled paha inimene, siis pöördud laborisse, kus on ausad inimesed, aga teevad ohtlikke asju, ja maksad neile. Nad ütlevad, et igal asjal on oma hind, okei, sa maksad, ja lõpuks nad teevadki raha eest ohtlikku asja ja stsenaarium realiseerubki.

Ei, see käib nii, et sa saadad tellimustöö välja trükkida. Nemad vaatavad, et on hea tasu ja mis sest ikka.

Tagajärg on, et inimene oma halva külje kaudu realiseerib teiste nõrkusi.

Scott Alexander on kirjutanud elegantse, jube pika essee “Meditations On Moloch”, milles kirjeldatakse olukorda, kus keegi halba ei taha, aga tulemus on ikkagi väga-väga halb.

Kui meil puudub moraalne võrdlusalus – universaalset moraali ei paista olemas olevat, vähemalt pole leitud, ei suudeta kirjeldada – siis paratamatult juhtub nii.

Üks lootuskiir mul on.

Ava seda, ma tahaks ka lootust saada.

Just täna hommikul oli mul sel teemal väga põnev vestlus researcher’itega. Inim-moraali juured on mänguteoorias. Harvardi psühholoog Joshua Greene on kirjutanud raamatu “Moral Tribes”, mis kirjeldab, kust moraalsed väärtused alguse said. Algus on suguharude vahel toimuvas võistluses, kus suguharud, milles kehtis aukoodeks, vastastikune aitamine ja kokkuhoidmine, olid lihtsalt konkurentsivõimelisemad kui need, kus moraalikoodeksit polnud. Moraalsus sai alguse loodusliku, sotsiaalse valiku tulemusena. Nüüd on huvitav küsimus, et juhul kui moraali olemuses on mitme agendi interaktsiooni olukorras üksikute agentide käitumist piirata, nii et üldine kasu sellest tõuseks…

Mitte ühekordses mängus, vaid mitmekordses mängus, sest muidu see ei toimiks. Ühekordses mängus tasub ju tüssata.

Ma väidan, et see ei ole õige. Ühe- ja mitmekordse mängu vahe on palju väiksem, kui arvatakse. Agendid ei pea tegema mingit käiku selleks, et teada saada, millega teine vastab. Vaja on hoopis mõelda, mida see teine agent teeb, kui ma selle käigu astuksin. See on usalduse küsimus, kas ma usaldan seda. See pole üldse abstraktne asi, kui sa oled reaalselt niisuguses olukorras, siis teed täpselt seda – mõtled, mida teine plaanib.

Koordinatsioonimäng sisuliselt. Kuskilt väljastpoolt peab tulema vihje, kultuuris olevad vihjed peavad ütlema, mida arvatavasti teine ka arvab. See toob su algupärase lähtekoha juurde, et bioloogilises süsteemis peab ikkagi hea asi olema see, mille vastu me arvame, et ka vastane teeb seda, mis on talle hea.

Inimühiskonna eeliseks on, et inimesed on suhteliselt sümmeetrilised. Kui ma satun teise inimesega vangidilemmasse, on mul palju infot selle kohta, mida teine inimene mõtleb, kuna me oleme väga sarnasest DNA-st koos, tihtilugu kultuuriliselt sarnases keskkonnas kasvanud.

Meie kultuuriloost on teada ka päriselt halbu inimesi, kel on näiteks kesknärvisüsteemiga nõnda, et ta ei mõista teiste valu ega talu ise valu.

Sotsiopaate on kindlasti olemas.

See tähendab, et suures teoreetilises mängukombinatoorikas suur hulk inimesi mingi aja jooksul kannatavad. Tekib küsimus, et kui kannatus on piisavalt suur, siis kas tasub elada. Kas see pole ka üks eksistentsiaalse riski allikaid?

Suures kompleksses süsteemis on ka palju vastuolulisi inimesi – mitte ainult need, kes optimeerivad end moraalselt paremini, vaid on ka neid, kes on valmis halvasti käituma. Pika aja jooksul tekib summaarselt suhteliselt suure hulga inimeste jaoks suhteliselt kehv seisund. Me näeme praegu ka, et maailm ei ole kuigi õnnelik, on düstoopilises meeleolus. Tohutust arengust hoolimata ei ole mitte kõik rõõmsamaks muutunud, vaid rõõmutut seisundit on üsna palju.

Steven Pinker kõlab siin. Oma raamatus “The Better Angels of Our Nature: Why Violence Has Declined” väidab ta, et elu on ajapikku paremaks läinud.

Tema vastu võikski vaielda. Ajaloolased ütlevad, et ta pigem tõlgendab.

Ma olen ise laval Pinkeriga vaielnud.

On vaja ka neid, kes rõhutavad optimistlikku nägemust jne. Aga kui kannatused lähevad piisavalt suureks, siis kas elul on mõtet? See on ka eksistentsiaalne risk, kannatused ise moodustavad eksistentsiaalse riski.

X-riskide (existential risk) kogukonnas on mingi väike kildkond, mis muretseb S-riskide pärast (suffering risk). X on see, et inimesi enam ei ole. S on see, et inimesed on, aga nad on sellises seisundis, kus nad eelistaks mitte olla.

Tegelikult inimeste lõplik tapmine on suhteliselt raske. Ajaloos on vahepeal olnud ka 6000–7000 inimest alles.

Sõltub, kes proovib tappa.

Jaa, aga väga kerge see pole. Kannatuste tekitamine on palju kergem. Tõenäosusruum kannatuste jaoks on palju suurem.

Sellega ma pole absoluutselt nõus, lihtsalt füüsika tõttu. Inimese elus hoidmiseks on vajalik väga delikaatse keskkonna tasakaalu hoidmine. Kui temperatuuri liigutada 20 kraadi üles või alla, surevad inimesed ära, nad ei jää lõputult kannatama.

Üleminekuprotsessis on suhteliselt pikk periood, mille jooksul kannatatakse. Surrakse enne ära, kui bioloogiliselt enam ei suuda ses temperatuuris vastu pidada. Enne sooritatakse pimedas keldris enesetapp.

Umbes nii jah. Üldiselt ma olen nõus, et maailmas on tulevikus hullemaidki võimalusi kui inimeste hukkumine.

On kaks AI turvalisust käsitlevat koolkonda. Üks ütleb, et me peame oma kodutööst AI-le võimalikult palju üle andma, et AI ülesanne oleks välja mõelda, mida inimesed tahavad, ja siis seda ka teha. Mitte et meie peaks välja mõtlema, mida AI peaks meie heaks tegema. Sel juhul tekib AI-l väga hea arusaam sellest, mis inimesed on ja mida nad tahavad. Probleem on aga, kas tal tekib motivatsioon, et täide viia seda, mida ta õpib. See on S-riskide oht – kui tekitada AI, mis saab täpselt inimesest aru, on piisavalt motiveeritud inimesi elus hoidma, saab eesmärgile pihta, aga mitte päris. Kui mõelda, siis milline on kõige tüüpilisem düstoopia retsept? Võta utoopia ja muuda üks nüanss ära. Me võime saada sellise düstoopia, kui teeme AI, mis üritab teha utoopiat, aga paneb natukene mööda, siis on ka S-riskid selgelt olemas.

Teine koolkond ütleb, et me ei tohi AI-le anda mitte mingeid andmeid, mis annaks talle lihtsa võimaluse järeldada, et inimesed on üldse olemas. Tuleb ehitada AI-d, mis ei tea inimese olemasolust, aga on siiski kasulik tööriistana – andmata sellele teadmisi inimpsühholoogiast.

Inimene tahab säilitada kontrolli just käskude kaudu.

Selleks et kontrollmehhanism töötaks, peab kontrollitav olema võimetu kontrollmehhanismi mõjutama. Või siis peab eksisteerima mingi veider tasakaal tema ja kontrollija mõju vahel.

Hetkel me oleme ajajärgus, kus mängime ideega, et oleme selleks võimelised. Aga me seda ju ei tea. On kaks koolkonda. Üks ütleb, et laseme sel masinal kasvada, las ta jälgib ja teenindab meid. Teine ütleb, et me niisama metsikult ei lase sel kasvada, me mängime ideega, et me kontrollime, mis andmeid talle anname.

Juhul kui sa ehitad AI, mis on võimeline välja raalima, milline peaks olema õige AI, ja kehastuma selleks AI-ks, siis oled permanentselt võitnud. Aga sel teel on väga palju karisid, mis võib juhtuda ja valesti minna. Kui võtta konservatiivne lähenemine ja luua AI, mis on võimas, aga jääb oma liistude juurde ja on pigem tööriist…

Raha on töö ekvivalent. Rahaga saab rohkem või vähem tööd esile kutsuda. See pole mitte ainult vara, vaid ka instrument, sekkumisvahend. Sinu investeeringud tehisintellekti on ikkagi ajendatud soovist kontrollida, mis see protsess on. Mis on su peamised juhtmõtted nende valikute tegemisel?

Juhul kui ma AI seltskondadesse investeerin, siis minu jaoks on peamine, et mis vahe on tulemusel võrreldes maailmaga, kus ma ei investeeri. Tihtilugu kritiseeritakse mind, et kui ma AI pärast mures olen, siis miks ma AI-sse investeerin. Selle kriitika eelduseks on justkui, et kui mina ei investeeriks, siis teised ka ei investeeriks. See on selgelt vale eeldus. Anthropicuga me just tegime nii, et nad käisid riskikapitalistidelt investeeringuid küsimas, ja oli selgelt näha, et kui mina ei investeeri, siis saavad nad rahastuse neilt.

Naljatamisi olen öelnud, aga tegelikult nii on olnud ka, et

ma olen AI ettevõtetesse investeerinud ja kasutanud seda investeeringut kui piletit pääsemaks nende kööki, et rääkida AI riskidest.

Ma arvan, et sellel, mida me siin praegu teeme – üldise teadlikkuse tõstmine – on suhteliselt väike mõju. Võib-olla sel on mingi mõju, aga ma ei näe otseselt mehhanismi, kuidas sellise asja positiivne mõju realiseeruks. Kuid kui ma räägin sedasama juttu AI inimeste köögis, siis on sel oluliselt tugevam mõju.

AI investeeringud, nende ettevõtmiste juures olemine ja nende inimestega suhtlemine on suunatud teadlikkuse tõstmisele.

Kas see tähendab, et tegemist on ka eetiliselt, moraalselt, mitte ainult majanduslikult mõtlevate inimestega? Sundolukord on ka nende jaoks majanduslik optimum. Nad võivad ju öelda, et rääkisin Jaaniga ja saan temast aru, aga…

Üks huvitav trend, mida Anthropicu lahkulöömine OpenAI-st näitab, on see, et kõrgtehnoloogia ja AI-ga tegelevates ettevõtetes toimub teatav jõuvahekordade muutus. Traditsiooniline ettevõtete jõuhierarhia on hierarhiline puu, kus on ülemused ja alluvad. Ülemuste jõud tuleb sellest, et neil on allkirjaõigus, õigus esindada organisatsiooni, teha majanduslikke tehinguid, mille tulemusel nad kontrollivad rahavooge organisatsiooni sees.

Energiat kontrollivad.

Kõrgemal olevad inimesed on kraanile lähemal. Olukorras, kus tehnoloogia on järjest väärtuslikum, on metallile (st arendatavale tehnoloogiale) lähemal olevaid inimesi raskem kontrollida. Seepärast on ka raske kontrollida insenere, kes ehitavad AI-d. Kui sul on start-up ja ühel hetkel on su inseneridel võimalus jalutada sinu juurest minema, olles kohe miljardärid, võides tõsta saja miljardi pealt raha oma uude ettevõttesse.

Kas sina mängid siis selle n-ö köögis oleva seltskonna peale, mitte neile, kes on seal paar trepiastet kõrgemal?

Põhimõtteliselt mõlema peale, aga köögis olev seltskond on neil teemadel nupukam.

Nende jaoks olulisim aspekt ehk crux ei ole siis majanduslik, vaid arvatavasti teaduslik või intellektuaalne. Nad teostavad midagi, nagu teadusele tihtipeale ette heidetakse, teie tegite ja nüüd on meil aatomipomm.

Väga hea võrdlus. Lugesin suurepärast Richard Rhodesi raamatut “The Making of the Atomic Bomb”. Käib tõsine uurimistöö, mis täpselt aatomipommi juhtimises juhtus, kuna paralleelid AI-ga on väga tugevad. Samamoodi nagu need teadlased olid päriselt ka mures, mis maailmast saab, on praegu AI insenerid maailma pärast mures.

Vahe on selles, et aatomipommi tegemine on suhteliselt keeruline. AI tegemiseks on lugematu arv nutikaid IT-inimesi kasvõi kodus garaažis. Raudvara pole piirav tegur. Pole üldse nii kontrollitav. Keemiarelv on suhteliselt hästi kontrollitav, kemikaale ikka jälgitakse, eriti kui tegu on suurte kogustega.

AI puhul on jälgitav vaid energiakulu. Järjest suuremate gain of function’i eksperimentide puhul on neid võimalik satelliitidelt näha.

Seda ei heida keegi ette. AI arendamisse suhtutakse praegu väga positiivselt.

Kusjuures ei ole nii. Oxfordi Interneti-instituut tegi eelmisel aastal küsitluse, kust selgus, et enamus inimesi läänes peab AI-d negatiivseks.

Inimesed on reaktiivsed. Nad on negatiivselt meelestatud, kuna nad ei tea. Ja kui ei tea, on hirmud.

Jah, aga nad pole õigel põhjusel hirmul.

Üldist optimismi AI osas enam pole. Hiinas on. Siin on selge vahe ida ja lääne vahel.

Ühes rahvusvahelises küsitluses küsiti, millal AI vähemalt inimese tasemel realiseerub. Kogu Aasia vastas, et enam-vähem kohe.

Mu hea tuttav Katja Grace tegi selle mõjuva küsitluse AI-teadlaste hulgas.

Mis see kultuuriline erinevus võib olla? Et ka Eesti tunnetuslikku maailma paika panna. Me oleme nagu kahe maailma vahel. On see majanduslik või kultuuriline?

Läänes ollakse tuleviku suhtes järjest ebakindlamad.

On kaugemale jõutud ka, nähakse tunneli lõppu.

AI-evangeliste usaldatakse üha vähem, kuna nad on majanduslikult või muul moel silmaklapistatud. Kuid miks hiinlased optimistlikud on, seda ma ei tea.

Seal ollakse muinasjutu faasis kauem.

Ma pole küll Hiinas nüüd kaks aastat käinud, aga üldiselt on näha, et AI riskide teemaline diskursus on seal mitmeid aastaid maas. Argumendid, millest seal räägitakse, on läänes juba mitmeid aastaid tagasi läbi käidud. Samas on Hiina selles osas avatum kui lääs. Viis või kümme aastat tagasi pidi läänes ruumis ringi vaatama, et kes neist ütleb, et see on jama science fiction, millest sa räägid, lõpeta ära, piinlik kuulata. Hiinas sellist asja pole, et keegi ütleks, ära räägi AI ohtudest.

See, kui vabalt end väljendada saab, tuleneb ka kultuurist. Kuna kõik on kuss ja arendavad AI-d, siis tundubki, et kõik läheb ilusasti. Lääne pool on düstoopiakirjandust ja kõike muud.

Kirjanduses ja kultuuris on raudselt selge vahe näha. Cambridge’i Ülikooli juures olev Leverhulme’i-nimeline Tuleviku Intellekti Keskus tegi antropoloogilise uuringu, kuidas kirjeldatakse tehissüsteeme läänes ja idas. Jaapanis on see valdavalt positiivne. Kui fantaasiakirjanduses räägitakse robotitest, on nad valdavalt positiivsed tegelased.

Neil pole suurt validagi. Rahva taastootmise piiri seal ei rahuldata ja leitakse, et immigratsioon on halvem kui see, et rahvast asendavad robotid, piiksuvad seadmed. Selline traagika, aga nende valik ilmselt.

Kas sa tajud, et oma investeerimisinstrumendi kasutamisel sa puudutad seda rooli või sul on pigem juurdepääs arusaamadele ja väärtustele? Organisatsioonid, mille loomise juures sa oled olnud, on tegelikult roolikeeramise organisatsioonid, mis tekitavad dialoogi, väärtussüsteeme, kujundavad raamistikku, aga investeering on juurdepääs köögipoolele.

Mul on “tsivilisatsioonimängus” kolm ressurssi: mu aeg, vara ja bränd. Brändi olen ma sihilikult tehnoloogiamaailmas arendanud nüüd enam kui kümme aastat. Olen loonud sellise brändi, kus ma olen vahelüli. Kui on AI pärast muretsev seltskond ja AI-d arendav seltskond, siis ma üritan neid kokku panna ja vahendada vestlust ja samas ise tehnoloog olles, mõistes tehnoloogide-inseneride motivatsiooni, olen nende poolel rohkem kui riskikapitalist.

Brändi positsiooni väljatoomine on huvitav. Meil on tihtipeale sotsiaalmeedia tõttu pinnapeale maailm, kus vaid kuvandiga tegeletaksegi. Sinu kuvand Eestis – sind eriti ei teata. Isegi see, et me inimkonda puudutavatel teemadel praegu eesti keeles räägime – kas seda dialoogi peaks lokaliseerima või huvitatud peaksid uurima ingliskeelset materjali? Kas sa peaksid olema kohapeal nähtavam? Eesti ei saa ju midagi ära teha.

Ma ei näe praegu põhjust olla Eestis sekkuvam, et sel mingi oluline väärtus oleks.

Eesti väärtus minu jaoks seisneb selles, et ta on selgelt ida ja lääne vahel olev neutraalne punkt. Hiljuti toetasin üht Shanghai uurimisinstituuti, mida mu palju rikkamad kolleegid USA-st ei saaks toetada, sest sedasi tekiks toetuse vastuvõtjatel võimudega probleeme.

Väljaspool on Eestil riigina väga hea kuvand ikka veel alles.

Tasub säilitada teatud vaoshoitust. Seda, et sa oled küll eestlane, aga toimetad jube tugevate jõujoontega maastikul, me ise ei teadvusta, aga võib-olla see ongi meie enda huvides. Kui me ei suuda ise palju tehnoloogiliselt ja majanduslikult kaasa rääkida, siis meil tasub olla justkui hall kardinal ja protsessi vaoshoitumalt juhtida.

Olen viimasel ajal tihti suhelnud Singapuri administratsiooniga. Seal on huvitavalt sarnane olukord. Nad on kahe kultuuri vahel, samas pisike, neutraalne, mitte kedagi ähvardav tegija. Mingeid kontakte on mul ka Šveitsis ning viimasel ajal Uus-Meremaal. Need kolm riiki on geograafilised Schelling point’id (mänguteooria termin, mis on nime saanud Thomas Schellingi järgi ja mis viitab lahendusele, mida inimesed kipuvad valima üksteisest sõltumatult – toim). Kui seda ringi laiendada, siis Eesti oleks neljas või viies.

Šveits, Singapur ja Uus-Meremaa on iseseisvad, samas mitte kedagi ohustavad riigid. Nende puhul on selgelt välja joonistunud kaalukeele roll maailmas. Eestil on sarnane positsioon, aga nõrgem.

Kui mingis riigis peaks toimuma mingi üleilmne AI projekt, näiteks turvaprojekt, siis Singapur võiks olla nii Hiina kui Ameerika teine valik.

Kuidas sa näed Venemaa AI arengut? Kus nemad praegu selles vallas on?

Venemaa on väga tugeva teadustraditsiooniga riik, aga ei hooli oma teadlastest, mistõttu pole neid sinna eriti palju jäänud.

Nad on nähtavad mujal maailmas.

Kel on olnud võimalus lahkuda, on lahkunud. Võib-olla ma alahindan Venemaad, aga ma pole kuulnud sealt midagi vapustavat.

Eestiski on mõtet dialoogi arendada, et inimesed mõtleksid rohkem ka väärtustele. Otsuseid teeme me väärtuspõhiselt, mitte andmepõhiselt, aga kogu tehisintellekt on andmetele rajatud.

Kuna Eesti on väike riik, siis inimesed on riigile lähemal.

Kui eestlased oleks selles valdkonnas nutikamad, kas sellest oleks kasu?

Jah, juhul kui Eestis teadlikkus suureneb, tekib teadvushüpe neil teemadel, siis see oleks suurema potentsiaaliga kui sama hüpe miljonil inimesel Ameerikas.

Miljon keskmist inimest Ameerikas ei saa midagi teha. Miljon inimest Eestis saab aga kõike juhtida.

Arvamus kõlab rohkem, kuigi maailma mastaabis läheb korda vaid siis, kui me seda väga kõvasti ei räägi, kombineerime rohkem, oleme tammsaarelikud.

Kaalukeele roll on paratamatult Eesti peamine jõud.

Lõpetuseks ütle, kas sa oled üldiselt optimist.

Ma olen pragmaatiline optimist.

Informeeritud pessimist siis või?

Maailma tuleviku võib jagada kolmeks variandiks. Üks on see, kus kõik läheb hästi sõltumata sellest, mida ma teen – seda võib ignoreerida. Teine, kõik läheb halvasti sõltumata sellest, mis ma teen – seda võiks ka ignoreerida. Jääb variant, et tulevikus läheb hästi, kui me pingutame, ja sellele ma keskendun.

See eeldab julgust. Mugavam oleks mitte.

Jah, isegi endiste Skype’i kolleegidega rääkides olen kohanud suhtumist, et ah mis mina ikka suudan sellise asjaga ära teha.

Elon Musk on öelnud, et viie aasta pärast läheb kõik tuksi, nagu sinagi pead võimalikuks väikest musta sündmust viie aasta jooksul. Ta on huvitav tüüp, võib öelda mida iganes. Paistab, et suurt süsteemi juhib ta siiski pragmaatilisemalt, aga ta ütles hiljuti, et inimkonna arengu põhjuseks on Toxoplasma gondii, et me oleme julgemad kui peaks. (Toxoplasma gondii on kesknärvisüsteemi mõjutav parasiit, mida on uuritud 10–15 aastat, seotud kassi-hiire ainevahetussüsteemiga, muudab hiire julgemaks. Üks Prantsusmaa uuring on isegi näidanud, et autoavariisse sattunud inimestel on tugevalt üle juhuslikkuse taseme kodus nakkust vahendavad kassid – toksoplasmoos avaldab mõju). Kas sa oled selle väitega nõus, et inimene on optimistlikum, kui peaks olema?

Musk on liiga loosunglik minu maitse jaoks.

Ma olen nõus sellega, et kogu progressi on loonud inimesed, kes on püüdnud võimatut ja sealjuures suuri riske võtnud. Probleem on selles, et sel sajandil võetakse riskid teiste arvelt. Kuidas seda dünaamikat parandada, on suur küsimus. Kui õnnestuks teha olukord, kus AI katastroofis hukkuvad vaid AI arendajad, siis oleme võitnud. AI risk praegusel kujul haihtuks.

Kas me üldine üleskutse on pigem, et olge passiivsed ja vaadake, või proovige midagi teha? Kõik halvad asjad juhtuvad ju siis, kui midagi tehakse. Kõrvalt vaadates ei juhtu midagi.

Kindlasti on meil tsivilisatsioonina vaja praegusest rohkem ideid, lahendusi probleemidele, mille lahendusi me hetkel ei tea. Kuidas see seostub riskimisega, ma ei oska öelda.

Risk on selles, kui sa mõtled kastist välja, mitte konventsionaalselt. Uued asjad on kastist väljas.

Kui risk seisneb mõtetes ja karjääriga riskimises, siis kindlasti.

Investeeringutes ka. Sa ei investeeri riskivabalt.

Just. Aga kui see on teiste eludega riskimine, siis see pigem pole positiivne.

Aitäh! Sõnaga “positiivne” panekski siinkohal vestlusele punkti.

0 notes